Training Documents Reranker with Search Rubrics for Deep Research Agent
用搜索评分标准训练文档重排序器以支持深度研究智能体
🧭 搜索评分标准引导的文档重排序器训练 ★ 深度解读
中国人民大学 · 腾讯
提出层级式搜索评分标准,指导文档重排序器训练,提升智能体检索质量并减少搜索调用次数
📌 工作参考价值(4 点)
- 搜索评分标准可迁移至电商/推荐场景:借鉴层级式评估(集合级:相关性、简洁性、一致性;文档级:来源权威性、时效性),为商品搜索词或推荐候选集设计 query-specific 质量 rubrics,直接用于训练重排模型或构造奖励函数。
- 两阶段训练范式可直接复用:先用教师模型(如强 LLM)按 rubrics 生成伪标签做 SFT 冷启动,再用 GRPO 搭配 rubrics 加权奖励做 RL 微调,这一范式适合商品列表、广告创意列表等需要集合整体优化的排序任务。
- rubric 构造方法可提升评估与训练信号质量:用强 LLM 先合成高质量答案,再扩展出细粒度、带权重的评分标准,能够更精准地捕捉集合级别的信息需求(如多样性、覆盖度),这个方法可直接嫁接于推荐系统的离线评估或 RL reward 设计。
- 文档集级别重排思想可直接用于电商搜索/RAG 系统:不按单个文档相关性排序,而是直接输出一个满足整体质量要求的子集,能够减少冗余、提升证据充分性,可降低后续 Agent 或 LLM 生成回答时所需的搜索步数,改善时延。